Tổng quan khóa học: Sự bất định trong kỷ nguyên GenAI

Bài 5 đánh dấu bước chuyển mình quan trọng trong COMP5511. Chúng ta rời xa logic tất định của điện toán cổ điển và sự chắc chắn có giám sát của các mô hình phân loại thời kỳ đầu, để bước vào trái tim xác suất của AI tạo sinh. Trong buổi học này, chúng ta khám phá lý do vì sao các mô hình AI hiện đại không đưa ra "sự thật" mà thay vào đó là các phân phối xác suất, qua đó làm sáng tỏ các cơ chế cho phép LLM viết thơ và mô hình khuếch tán vẽ tranh từ nhiễu.

1. Sự chuyển dịch hệ hình: Từ logic đến xác suất

• Vượt qua IF-THEN: Chuyển từ các quy tắc cứng nhắc sang những khả năng thống kê linh hoạt.
• Sự kết thúc của chắc chắn: Hiểu vì sao kết quả của GenAI mang tính phi tất định ngay từ thiết kế.
• Xác suất như một công cụ: Cách "kỷ nguyên GenAI" coi sự bất định là một tính năng để sáng tạo thay vì một lỗi cần sửa.

2. Những cỗ máy sáng tạo mang tính xác suất

AI tạo sinh dựa trên việc lấy mẫu từ các không gian xác suất đa chiều. Dù tạo văn bản hay hình ảnh, mô hình đều điều hướng qua sự bất định để tạo ra cái mới:

• Mô hình ngôn ngữ lớn (LLM): Dự đoán token tiếp theo không phải như một lựa chọn duy nhất, mà như một phân phối của các khả năng.
• Mô hình khuếch tán: Nghệ thuật tái tạo trật tự từ nhiễu Gaussian.
• Quá trình lấy mẫu: Cách tính ngẫu nhiên được khai thác để tránh những kết quả lặp lại và "máy móc".

3. Tác tử trong những thế giới khó lường

Các tác tử tự trị phải điều hướng trong "Thế giới mở" nơi mỗi hành động đều mang theo một mức độ rủi ro và phần thưởng chưa biết.